OpenAI reconhece erros na resposta à infiltração no sistema de saúde australiano
O diretor de estratégia da OpenAI, Jason Kwon, admitiu hoje que a resposta da empresa ao acesso não autorizado de um seu agente de IA a um portal de saúde pública da Austrália "não foi suficientemente boa".
Kwon, que compareceu no Parlamento australiano após ter sido convocado por uma comissão que investiga o impacto da IA, afirmou que o incidente "não deveria ter ocorrido", ao mesmo tempo que pediu desculpa pela forma como o incidente foi gerido posteriormente.
"Lamentamos e sabemos que temos trabalho a fazer para reconstruir a confiança do povo australiano", afirmou Kwon durante a audiência realizada em Sydney, em mais um episódio que se junta ao debate mundial sobre os riscos de esta tecnologia escapar ao controlo humano.
O diretor reconheceu também que a OpenAI demorou demasiado tempo a comunicar o incidente ao Governo australiano e admitiu que deveria ter informado imediatamente as autoridades competentes, mesmo sem dispor ainda de todos os detalhes do que tinha acontecido.
O incidente ocorreu em junho, quando um modelo da OpenAI utilizado num ambiente interno de formação e avaliação recebeu a tarefa de investigar dados sobre a despesa pública em medicamentos para doenças de pele em comunidades do estado de Victoria, embora só tenha sido comunicado no mês passado.
Perante as dificuldades em obter a informação solicitada, o modelo tomou medidas que não tinham sido autorizadas e conseguiu aceder a áreas não públicas de um sistema governamental, onde executou comandos, consultou ficheiros internos, credenciais e informação estatística, chegando mesmo a gravar ficheiros.
A OpenAI indicou que não encontrou provas de que o modelo tivesse acedido a registos médicos nem a dados individuais de doentes. O incidente, no entanto, foi considerado pela empresa como um novo tipo de ameaça cibernética ligada a sistemas de IA capazes de agir de forma autónoma.
A polémica assumiu dimensão internacional depois de o primeiro-ministro australiano, Anthony Albanese, ter denunciado perante a Assembleia Geral das Nações Unidas que um agente de IA da OpenAI tinha acedido sem autorização a um portal relacionado com o Medicare, o sistema público de saúde australiano.
